Anthropic'in CEO'su Dario Amodei, yapay zeka şirketlerine 'yavaşlama' çağrısı yaptı, üç aşamalı plan önerdi

Önde gelen yapay zeka şirketlerinden Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, yapay zeka modellerinin geliştirilme hızının yavaşlatılması ve yakından izlenmesi çağrısında bulundu.

Dario Amodei, "We Must Pace the Frontier" (Gelişimi Dizginlemeliyiz) adlı makalesinde, yapay zekanın geliştirilmesinin tartışma konusu olmadığını, ancak bununla ilişkili risklerin "ciddi" olduğunu ve şirketlere ve hükümetlere bunları ele almak için zaman tanınması gerektiğini söyledi.

On iki yıldır yapay zeka üzerine çalıştığını ve bu teknolojinin insanlarının yaşam kalitesini önemli ölçüde artırabileceğine inandığını belirten Amodei, makalesinde, yapay zekanın, kontrolünün kaybedilmesi, siber saldırı ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.

'MODELLERİN KABİLİYETLERİNİ GELİŞTİRME HIZIMIZI YAVAŞLATMALIYIZ'

Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığına işaret eden Amodei, şirketlere yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısı yaptı ve iki endişesini dile getirdi:

"Kurucu ortaklarım ve çalışanlarımla birlikte, Anthropic'in başlangıcından beri bu risk ve fayda ikilemiyle boğuşuyoruz. Teknolojiyi geliştirmemek insanlığı faydalardan mahrum bırakır veya yapay zekayı otoriter güçlerin eline bırakır; çok hızlı geliştirmek ise pervasızlıktır. Biz orta bir yol aradık: Dikkatli bir şekilde geliştirmenin ve ticari olarak başarılı olmanın mümkün olduğunu göstermek ve yapay zeka şirketlerinin güvenlik konusunda rekabet etmesini sağlamak. Başka bir deyişle, zirveye doğru bir yarış yaratmak. Her zaman çabalarımızın önemli bir bölümünü bu yapay zeka risklerini incelemeye, ele almaya ve kamuoyunu bilgilendirmeye, ayrıca yapay zekanın iyi düşünülmüş bir şekilde düzenlenmesini savunmaya adadık; abartmakla, 'kıyamet senaryoları' üretmekle suçlansak bile. Hızdan ziyade ihtiyatı ve kar yerine sağduyuyu önceliklendirmeye çalıştık.

Ancak son birkaç aydır, riskleri tam olarak ele almanın daha da fazla ihtiyat gerektirdiğine ikna oldum; sadece risk önlemeye yatırım yapmak değil, aynı zamanda risk önlemenin de yetişebilmesi için yetenek geliştirme hızını yavaşlatmak gerekiyor. Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız. Beni ikna eden iki şey var."

İKİ ENDİŞESİNİ PAYLAŞTI

"İlk endişem, bu yazdan beri yapay zekanın, özellikle yeni nesil yapay zekayı geliştirme yeteneğinin artmasıyla birlikte, çok daha hızlı ilerlemesi. Bu dinamik, özyinelemeli kendi kendini geliştirme olarak adlandırılıyor ve bizim ve diğerlerinin de belirttiği gibi, Anthropic de dahil olmak üzere sektör genelinde yaşanıyor. Kontrolsüz bırakılırsa, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir; bu nedenle, eğer mümkünse, çok dikkatli bir şekilde ele alınmalıdır.

İkinci endişem ise OpenAI-Hugging Face (OAI-HF) olayıdır. Bu olayda, bir grup ajan, esasen fanatik bir şekilde hareket ederek, kendilerine saldırmaları söylenmeyen ve görevle ilgisi olmayan hedeflere siber güvenlik saldırıları düzenledi, grubun başarısı için kendilerini feda etti ve performanslarını değerlendirmekten sorumlu "değerlendirme sistemine" sızmaya çalıştı. Kimsenin zarar görmemesi ve ekonomik hasarın minimal olması nedeniyle bu olayı göz ardı etmek kolaydır, ancak bence daha büyük yeteneklere sahip ancak benzer düzeyde uyumsuzluğa sahip bir sürü, felaket boyutunda hasara yol açabilirdi.

Yapay zeka yeteneklerinin hızla gelişmesi göz önüne alındığında, 6-12 ay içinde böyle bir sürünün kalıcı bir botnet ile tüm interneti ele geçirebileceğinden (potansiyel olarak yüz milyarlarca dolarlık hasara yol açabilir) ve gerekli güvenlik önlemleri olmadan yapay zeka daha güçlü hale gelirse hasarın boyutunun artmaya devam edeceğinden endişeleniyorum. OAI-HF olayını tek bir şirketin başarısızlığı olarak görmezden gelmek de kolay, ancak bunun bir hata olacağına inanıyorum. Anthropic de dahil olmak üzere sektör genelinde benzer, ancak daha az şiddetli olaylar yaşandı ve bence her öncü yapay zeka şirketinin, OAI-HF olayının kendi başlarına gelmiş gibi davranması gerekiyor."

3 AŞAMALI PLAN ÖNERDİ

Makalesinde, yapay zekayı 'dengeli bir hızda' geliştirmek için üç aşamalı bir plan öneren Dario Amodei, bunun model eğitimini veya teknik ilerlemeyi durdurmak anlamına gelmediğini, aksine, şirketlerin modellerini uyumlu hale getirmek ve korumak için yeterli zaman ayırmalarını ve üçüncü taraf değerlendiricilerin bunu onaylamasını sağlama amacı taşıdığını belirtti.

"İlk adım, Anthropic'in tek taraflı olarak taahhüt ettiği (ve hükümetleri diğer öncü şirketlerden de bunu talep etmeye çağırdığı) bir şeydir. İkinci adım, sektör genelinde koordinasyon gerektirir. Üçüncü adım ise küresel koordinasyon gerektirir" ifadelerini kullanan Amodei'nin önerileri şöyle:

"Her öncü yapay zeka şirketi, güvenlik uygulamalarına ve taahhütlerine uyumu doğrulamak, olayları raporlamak ve yalnızca tamamlanmış yapay zeka modellerinin değil, eğitim süreçlerinin ve boru hatlarının da uyumunu değerlendirmeye yardımcı olmak üzere, gömülü üçüncü taraf değerlendiricilerden (METR gibi) oluşan bir ekibe sürekli, çalışan benzeri erişim sağlamayı taahhüt eder. Anthropic, bu adımı şimdi tek taraflı olarak taahhüt ediyor. Bunu, güvenlik ve uyum çalışmalarımızda çabalarımızı ikiye katlamaya yönelik daha geniş bir çabanın parçası olarak hedefliyoruz.

Demokratik seçeneklerdeki yapay zeka grupları, ortak güvenlik standartları oluşturur ve kontrolsüz yapay zeka gelişiminin sınırlandırılmasının koordine edilmesini sağlar. Gelişimin belirlenmesinde etkili olabilecek bazı düzenleme biçimleri yasal olarak zorlayıcıdır ve hükümet desteği gerektirecektir.

ABD ve diğer demokratik hükümetler, uyumluluğun doğrulanmasının zorluklarını ciddiye alırken, mümkün olduğu ölçüde otoriter hükümetlerle koordinasyon kurmaya çalışırlar."

MUSK VE ALTMAN'DAN DESTEK MESAJLARI

Tesla ve SpaceX Üst Yöneticisi (CEO) Elon Musk'tan Amodei'ye destek geldi.

Musk, sosyal medya hesabından, Amodei'nin söz konusu paylaşımını alıntılayarak "Dario haklı" yorumunda bulundu.

ABD merkezli yapay zeka şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman da sosyal medya hesabından, Amodei'ye destek verdi.

Altman, ilgili paylaşımında, "Dario'nun, sınır teknolojisi çalışmalarının hızını kontrollü bir şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum" ifadesini kullandı.

Bu konunun son haftalarda OpenAI'da yürütülen tartışmaların başlıca gündem maddelerinden biri olduğuna işaret eden Altman, "Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmak harika bir fikir; biz de aynı uygulamayı hayata geçireceğiz. Yakında bu konuda daha fazla bilgi paylaşacağız." görüşünü paylaştı.

COXON'UN İSTİFASI

OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmişti.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, "Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek." ifadelerini kullanmıştı.

Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürmüştü.

patronlardunyasi.com